Beyond Uniform Forgetting: A Study of Sequential Direct Preference Optimization Across Preference Settings
超越均匀遗忘：顺序直接偏好优化的跨设置研究
🧭 多目标顺序对齐中的遗忘分析
University of Western Australia · Macquarie University
顺序DPO的遗忘模式非均匀，取决于目标关系、信号强度与训练顺序，可退化、稳定或正迁移
📌 工作参考价值（4 点）
- 多目标顺序微调时的风险意识：在电商推荐中，若对LLM使用顺序DPO注入多个偏好（如点击率、转化率、多样性），后续目标可能削弱前期偏好，但削弱程度取决于目标间冲突程度。可提前评估目标兼容性，将冲突强的目标并行训练，或把重要目标放在后期。
- 监控不能只看聚合指标：像本文一样做 pair-level 和置信度分层的分析，否则整体 win-rate 可能掩盖高置信度样本的退化。在推荐模型中，对关键用户群体的偏好变化应单独追踪。
- 梯度正交性揭示遗忘并非直接干扰：文章发现后期更新方向与前期目标近乎正交，说明简单的梯度冲突缓解可能无效。可尝试通过少量回放前期偏好数据或约束表示空间，而不必依赖梯度正交化来防遗忘。
- 信号强度决定稳定性：强安全信号容易在后续训练中保持，弱信号易被覆盖。在推荐系统中，重要的底线目标（如安全、品牌安全）应使用强信号优先训练，或增大其损失权重。